Think Big, Search Small: Where Capacity Matters in Hierarchical Search Agents?
大处着眼，小处搜索：层级搜索智能体的模型容量分配
🧭 Agent 多智体角色分工与容量分配 ★ 深度解读
East China Normal University
在层级搜索Agent中，规划侧的容量是瓶颈，执行侧可缩至1.7B且性能不降，颠覆均匀分配惯例。
📌 工作参考价值（4 点）
- 构建搜索/查询推荐多Agent系统时，将大模型集中用于任务分解（如query理解、子任务规划），检索执行等子Agent使用小模型（如1.7B），可大幅降低推理成本而几乎不损失效果。
- 容量扫查揭示显著不对称性：执行模型从小变大提升微弱（EM仅+2.6），规划模型提升巨大（EM+11），投资重点应放在规划侧。
- 采用质量过滤的轨迹蒸馏可将大模型的纠错搜索行为（多轮检索）注入小模型：保留学生正确的单步搜索轨迹，仅用教师多步搜索的成功样例训练，避免遗忘，使小模型执行器性能超越前沿大模型，且子Agent token消耗减少37%。
- 答案生成与搜索分解隔离，避免答案模型参数记忆泄露；此设计可迁移至推荐系统的解释生成环节，固定生成器仅改变查询规划与召回执行，实现无偏消融评估。